Efficient solution approach to nonlinear optimal control problems and application to autonomous driving

Diese Arbeit beschäftigt sich mit der numerischen Lösung von dynamischen nichtlinearen Optimierungsaufgaben und der Entwicklung neuer Methoden für deren Analyse, um die Effizienz der Berechnungen zu erhöhen. Der Betrieb vieler natürlicher und technischer Prozesse kann als nichtlineares Optimierungsproblem mit Beschränkungen formuliert werden. Aufgrund der steigenden Komplexität wird die Lösung eines solchen Problems zu einer Herausforderung, insbesondere wenn das Problem in Echtzeit gelöst werden muss. Der Ansatz des kombinierten Mehrfachschießverfahren mit Kollokation ist effizient, um solche Probleme zu lösen, auch wenn sie eine schnelle Dynamik aufweisen. So ist das erste Ziel dieser Arbeit die weitere Verbesserung der Rechenleistung durch die Bereitstellung einer analytischen Hesse-Matrix und die Realisierung eines Parallelberechnungs-Schemas. Zunächst wurden die Formeln zur Berechnung der Sensitivitäten zweiter Ordnung für den kombinierten Ansatz abgeleitet. Mit Hilfe des Mehrfachschießverfahrens können die Lösungen von Modellgleichungen und Auswertungen von Sensitivitäten erster und zweiter Ordnung für jedes Zeitintervall unabhängig voneinander berechnet werden. Der zweite Beitrag widmet sich daher der Realisierung eines parallelen Rechenschemas. Dadurch wird ein hoher Beschleunigungsfaktor durch Parallelisierung erreicht, der zu einer Reduzierung des Rechenaufwands führt. Als dritter Beitrag wurde eine neuartige Korrelationsanalyse der Steuergrößen eingeführt, die auf die Notwendigkeit hinweist, die analytische Hesse-Matrix anstelle seiner Approximation einzusetzen, um ein Optimierungsproblem effizient zu lösen. Die numerische Leistung dieser drei Beiträge wurde mit Hilfe von herausfordernden dynamischen Optimierungsproblemen einschließlich der optimalen Steuerung eines großen Problems mit mehr als tausend dynamischen Variablen demonstriert. Die kombinierte Methode wandelt das Problem der kontinuierlichen dynamischen Optimierung in ein nichtlineares Programmierungsproblem mit einer vorgegebenen Anzahl der Zeitintervalle um. Es gibt jedoch keine umfassenden Regeln, um diese Anzahl der Zeitintervalle passend zu wählen. Daher widmet sich das vierte Ziel dieser Arbeit der Analyse der zugrunde liegenden Optimierungsprobleme mit dem besonderen Fokus auf der Anzahl der diskreten Zeitintervalle. Aus Anwendungssicht sollte die Anzahl der Zeitintervalle so gewählt werden, dass gleichzeitig die Bilanz zwischen der numerischen Genauigkeit und der Rechenlast zur Lösung des diskreten Optimierungsproblems erreicht wird. Darüber hinaus ist es unerlässlich, die Mindestanzahl an Zeitintervallen zu finden, um diese Genauigkeit zu gewährleisten. So wurde im Rahmen der Kollokation auf finiten Elementen ein neuartiger Bilevel-Ansatz vorgeschlagen, bei dem die äußere Schleife für die Ermittlung der minimalen Anzahl von Zeitintervallen zuständig ist und die innere Schleife eine obere Grenze des Approximationsfehlers auswertet, indem sie ein Fehlermaximierungsproblem durch Manipulation der Steuergrößen löst. Auf diese Weise kann eine Mindestanzahl von Zeitintervallen festgelegt werden, die eine benutzerdefinierte Fehlertoleranz gewährleistet. Außerdem wird der Einfluss der Anfangsbedingungen auf den maximalen Approximationsfehler berücksichtigt, so dass die ermittelte Anzahl von Intervallen für unterschiedliche Anfangsbedingungen gilt und somit für die nichtlineare modellprädiktive Regelung (engl.: nonlinear model predictive control (NMPC)) angewendet werden kann. Mehrere Fallstudien wurden verwendet, um die Wirksamkeit des vorgeschlagenen Ansatzes zu demonstrieren. Sowohl die theoretisch entwickelten Methoden als auch der kombinierte Ansatz wurden mit Hilfe von Open-Source-Software als allgemeines Framework für Testzwecke implementiert. Schließlich wurden die entwickelten Methoden auf das autonome Fahren im NMPC-Framework angewendet. Autonomes Fahren ist der aktuelle Trend in der Automobilindustrie mit dem Ziel, vollautomatisierte oder selbstfahrende Fahrzeuge zu entwickeln und zu produzieren. Reglerentwurf und -betrieb von autonomen Fahrzeugen stellen mehrere Herausforderungen dar, weshalb umfangreiche und intensive Forschungsarbeiten notwendig sind, um den wachsenden industriellen Bedarf abzudecken. Die Fahrzeugbewegung wurde als ein dynamisches Optimierungsproblem dargestellt, das online effizient gelöst wird. Der erfolgreiche Test der NMPC mit zwei Modellfahrzeugen (im Maßstab 1:5 und 1:8 im Vergleich zum realen Fahrzeug) zeigte die Effizienz des entwickelten Ansatzes.This thesis deals with the numerical solution of dynamic nonlinear optimization problems and the development of new methods for their analysis in order to increase the efficiency of calculations. The operation of many natural and technical processes can be formulated as a nonlinear optimal control problem with constraints. Because of the increasing complexity, the solution of such a problem becomes challenging, in particular if it has to be obtained in real-time. The approach of combined multiple-shooting with collocation is efficient for solving such problems even if they contain fast dynamics. Thus, the first target of this work is to further improve its computational performance by providing an analytical Hessian and realizing a parallel-computing scheme. First, the formulas for computing the second-order sensitivities for the combined approach were derived. Using multiple-shooting, the solutions of model equations and evaluations of both first-order and second-order sensitivities can be provided independently for each time interval. Therefore, the second contribution is dedicated to the realization of a parallel computing scheme. As a result, a high speedup factor is attained through parallelization leading to reduction of computational expenses. As a third contribution, a novel control-variable correlation analysis was introduced, which indicates the necessity of employing the analytical Hessian instead of its approximation to efficiently solve an optimization problem. The numerical performance of these three contributions was demonstrated through challenging dynamic optimization problems including optimal control of a large-scale problem containing more than one thousand dynamic variables. The combined method converts the continuous dynamic optimization problem into a nonlinear programming problem using a given number of time intervals. However, there have been no comprehensive rules to properly choose this number. Therefore, the fourth target of this work is devoted to the analysis of the underlying optimization problem with the special focus on the number of discrete time intervals. From the application point of view, the number of time intervals should be selected to simultaneously achieve the balance between the numerical accuracy and the computation load for solving the discretized optimization problem. Moreover, it is imperative to find the minimum number of time intervals to guarantee this balance. Thus, in the context of collocation on finite elements, a novel bilevel approach was proposed, where the outer loop is responsible for finding the minimum number of time intervals and the inner loop evaluates an upper limit of the approximation error by solving an error maximization problem by manipulating the control variables. In this way, a minimum number of time intervals can be determined guaranteeing a user defined error tolerance. Moreover, the impact of the initial conditions on the maximum approximation error is taken into account so that the determined number of intervals is valid for varying initial conditions and thus can be applied to nonlinear model predictive control (NMPC). Several case studies were conducted to demonstrate the efficacy of the proposed approach. Both theoretically developed methods as well as the combined approach were implemented using open-source software as a generalized framework for testing purposes. Finally, the developed methods were applied to autonomous driving in the NMPC framework. Autonomous driving is the current trend in the automotive industry with the aim of designing and producing fully automated or self-driving vehicles. Control design and field operation of autonomous vehicles impose several challenges and thus extensive as well as intensive research studies need to be made to cover the growing industrial demand. In this work, the vehicle motion was modeled as a dynamic optimization problem which is efficiently solved on-line. The successful test of the NMPC with two model vehicles (with scale of 1:5 and 1:8 to real vehicles) demonstrated the effectiveness of the developed approach

Comparison of hierarchical and distributed optimization for model predictive control

In dieser Arbeit wurde die Anwendung von Optimierungsverfahren für hierarchische (Die IBM) und verteilten (Han-Algorithmus) Methoden vorgestellt. Das Ziel ist, zu erkennen, welche am besten entspricht Steuertechnik zum Steuern der Wasserversorgung oder andere ähnliche Systeme, um den Vergleich und Analyse der Verfahren bereitzustellen. Simulationen wurden unter Verwendung der Software MATLAB(r) durchgeführt. Um die Aufgabe zu lösen folgender Ansatz gewählt wurde. Die Suche nach der Literatur in Bezug auf die hierarchische und verteilte Methoden erbracht wurde und MPC-Technologie untersucht worden. Fehlerbeseitigung hat vereinfachten Wasserversorgung getan und dann diese Methoden mit der entsprechenden Beschreibung der aggregierten Wasserversorgung ergänzt, die besser widerspiegelt die Vorgänge in der realen Situation. Basierend auf der Forschung können die folgenden Schlüsse erfolgen. Zur Optimierung von Systemen mit einer geringen Anzahl von Variablen und Kopplungen zwischen ihnen sollte eine hierarchische Struktur verwendet werden, wie diese Verfahren zu genaueren Ergebnissen in einer kürzeren Zeit erreichen kann. Für Systeme mit einer großen Anzahl von Variablen und Kupplungen ist die verteilte Struktur für die Optimierung verwendet werden soll. Die Anzahl der Variablen und Kupplungen beeinflussen CPU-Frequenz und Nutzung des Optimierungsprozesses, daher die unterschiedliche CPU-Zeit für die Optimierung erforderlich ist. Es sollte beachtet werden, dass MATLAB(r) ist nicht schnellste Interpreter werden. Verteilte Han-Algorithmus, seine verbesserte und modifizierte Versionen werden noch nicht vollständig untersucht, insbesondere im Hinblick auf die Konvergenz und Parameter θ, also die Art und Weise ihrer Bestimmung. In diesem Papier zur Bestimmung dieses Parameters "Bisection Intervall-Methode" verwendet wurde. Die Störungvector (Verbrauch) beeinflusst den Optimierungsprozess, was bedeutet, dass unter den verschiedenen Werten des Verbrauchs die verteilten Algorithmen können die gleichen Optimierungsprobleme mit verschiedenen CPU-Zeit die Nachfrage zu lösen. Der Autor schlägt für die weitere Arbeit: - Verwendung einer anderen Programmiersprache wie C++. - Verwendung einer anderen Methode, um θ zu finden. - Verwendung eines schnelleren und leistungsfähigeren Rechners. - Verwendung der Parallel Computing Toolbox (tm) in MATLAB (r).Abstract (engl.) In this thesis the application of optimization techniques was presented for hierarchical (The IBM) and distributed (Han's algorithm) methods. The goal is to recognize which control technique fits best for controlling the water supply or other similar systems and to provide the comparison analysis of the methods. Simulations were conducted using the software MATLAB®. To solve the task the following approach was chosen. The search of the literature regarding the hierarchical and distributed methods has been provided and MPC technology has been studied. Debugging has been done on simplified water supply system and then these methods have been supplemented with the relevant description of the aggregated water supply system, which better reflects the processes occurring in the real situation. Based on the research, the following inferences can be made. For optimization of systems with a small number of variables and couplings between them should be used a hierarchical structure, as these methods allow to achieve more accurate results in a shorter period of time. For systems with a large number of variables and couplings the distributed structure for optimization should be used. The number of variables and couplings, CPU frequency and usage affect the optimization process; hence the different CPU time for optimization is required. It should be noted that MATLAB® is not the fastest interpreter. Distributed Han’s algorithm, its improved, and modified versions are not yet fully investigated, especially with regard to convergence and parameter ??, meaning the way of its determination. In this paper for determination of this parameter Bisection Interval method was used. The disturbance (consumption) vector influences the optimization process, which means that under the different values of consumption the distributed algorithms can solve the same optimization problems with different CPU time demand. The author proposes for further work: -Use another programming language such as C++. -Use a different method to find θ. -Use a faster and more powerful computer. -Use the Parallel Computing Toolbox™ in MATLAB®.Ilmenau, Techn. Univ., Masterarbeit, 201

Modified multiple shooting combined with collocation method in JModelica.org with symbolic calculations

This paper presents an efficient and a novel implementation of a combined multiple shooting and collocation (CMSC) algorithm for the solution of nonlinear optimal control problems. The implemented algorithm is a modification of the approach proposed in [17; 18]. The new implementation is done under the JModelica.org framework along with CasADi and Ipopt. The framework uses a symbolic pre-calculation of functions and derivatives. Besides the integration of various components of JModelica.org; Ipopt; and CasADi; the implementation facilitates simpler modeling of optimal control problems along with a choice of options for various linear algebra algorithms. The paper gives a description of the algorithm and elaborates the components of the framework. Numerical experimentations show that the new implementation is efficient in comparison with the published results of other authors

The Influence of a Short-Term Imprisonment on Prisoners with Custodial Sentence in the Czech Republic

This dissertation is dedicated to the issue of deficiencies of treatment programs in prisons of the Czech Republic for prisoners with short-term custodial sentence. In the theoretical part of dissertation is given the definition of short-term custodial sentence and is briefly described the system of treatment programs in the Czech Republic. Also in the theoretical part are described models of imprisonment settings by criminologist Ben Crewe. In the empirical part of dissertation treatment programs are classified by the models of imprisonment settings, described in the theoretical part. Classification is based on prison educator's evidences. Practical realization of treatment programs is also compared with the legislation. In the empirical part basing on evidences of prison educators and prisoners is also done identification of existing deficiencies that can be a barrier in effective implementation of treatment programs for prisoners with short-term custodial sentence. In the summary part of dissertation are given possible causes of defined deficiencies

The Influence of a Short-Term Imprisonment on Prisoners with Custodial Sentence in the Czech Republic

This dissertation is dedicated to the issue of deficiencies of treatment programs in prisons of the Czech Republic for prisoners with short-term custodial sentence. In the theoretical part of dissertation is given the definition of short-term custodial sentence and is briefly described the system of treatment programs in the Czech Republic. Also in the theoretical part are described models of imprisonment settings by criminologist Ben Crewe. In the empirical part of dissertation treatment programs are classified by the models of imprisonment settings, described in the theoretical part. Classification is based on prison educator's evidences. Practical realization of treatment programs is also compared with the legislation. In the empirical part basing on evidences of prison educators and prisoners is also done identification of existing deficiencies that can be a barrier in effective implementation of treatment programs for prisoners with short-term custodial sentence. In the summary part of dissertation are given possible causes of defined deficiencies.Práce je věnovaná problematice nedostatků programů zacházení ve vězeních České republiky s odsouzenými k nepodmíněnému krátkodobému trestu. V teoretické části práce je uvedena definice nepodmíněného krátkodobého trestu odnětí svobody a stručně popsán systém programů zacházení v České Republice. V teoretické části jsou také popsány modely vězeňského prostředí podle kriminologa Bena Creweho. V empirické části práce na základě výpovědí vězeňských pedagogů jsou programy zacházení zařazovány k modelům vězeňského prostředí, popsaným v části teoretické a praktická realizace programů zacházení popsaná vězeňskými pedagogy je porovnávaná s legislativou. Následně v empirické části na základě vypovědí vězeňských pedagogů a vězňů je provedená identifikace existujících nedostatků, které mohou být překážkou v účinné realizaci programů zacházení pro odsouzené ke krátkodobému nepodmíněnému trestu odnětí svobody. V závěrečné části práce jsou uvedeny možné příčiny nalezených nedostatků.Department of Public and Social PolicyKatedra veřejné a sociální politikyFakulta sociálních vědFaculty of Social Science

A Toolchain for Solving Dynamic Optimization Problems Using Symbolic and Parallel Computing

Abstract Significant progresses in developing approaches to dynamic optimization have been made. However, its practical implementation poses a difficult task and its realtime application such as in nonlinear model predictive control (NMPC) remains challenging. A toolchain is developed in this work to relieve the implementation burden and, meanwhile, to speed up the computations for solving the dynamic optimization problem. To achieve these targets, symbolic computing is utilized for calculating the first and second order sensitivities on the one hand and parallel computing is used for separately accomplishing the computations for the individual time intervals on the other hand. Two optimal control problems are solved to demonstrate the efficiency of the developed toolchain which solves one of the problems with approximately 25,000 variables within a reasonable CPU time